Schweitzer sinh ra tại Kaysersberg, ông là con của Adele (Schillinger) và Ludweg (Louis) Schweitzer.[1] Trải qua thời thơ ấu của mình tại làng Gunsbach ở Alsace. Cha ông, một mục sư tin lành phái Lutheran thuộc giáo hội EPCAAL, đã dạy ông cách chơi nhạc.[2] Trải qua một thời gian dài tranh chấp, vùng Alsace thuộc Elsaß, bất chấp tiếng Đức là ngôn ngữ chính của vùng, vùng đã thuộc về Pháp năm 1648 theo điều khoản của Hòa Ước Westphalia; sau đó vùng lại được tái sáp nhập vào Đức năm 1871; sau Chiến tranh Thế giới Thứ Nhất, vùng lại về với Pháp. Hiện nay ngôi làng nhỏ này đã trở thành nơi đặt trụ sở của Hội Albert Schweitzer Quốc tế (Association Internationale Albert Schweitzer).[3] Một ngôi nhà thờ có từ thời trung cổ ở Gunsbach là nơi thờ phượng chung của các giáo dân Công giáo và Tin Lành, các giáo đoàn này tổ chức các buổi lễ của họ tại những khu vực khác nhau và ở những thời điểm khác nhau trong ngày chủ nhật. Sự thỏa thuận này có kể từ sau cuộc cải cách Tin Lành và cuộc Chiến tranh Ba mươi Năm. Là con của một mục sư và lớn lên trong một môi trường hòa hợp tôn giáo, Schweitzer tin rằng mọi người tin vào Thiên Chúa bất kể thuộc giáo phái nào cần phải hướng đến sự đoàn kết về niềm tin và mục đích.[4]Ngôn ngữ được sử dụng tại nhà của Schweitzer là tiếng Đức giọng Alsatian. Năm 1893, tại trường trung học Mulhouse, ông lấy bằng “Abitur” (một chứng chỉ được cấp sau khi hoàn tất bậc trung học cơ sở). Ông học chơi đàn đại phong cầm từ năm 1885 đến 1893 với thầy Eugène Munch, một người chơi đàn đại phong cầm cho nhà thờ Tin Lành. Eugène Munch là người ảnh hưởng lên Schweitzer bởi lòng nhiệt thành mà ông dành cho một nhà soạn nhạc người Đức tên Richard Wagner.[5] Năm 1893 ông chơi đàn cho nghệ sĩ đại phong cầm người Pháp tên là Charles-Marie Widor (tại Saint-Sulpice, Paris). Khi Schweitzer chơi những bản nhạc do Johann Sebastian Bach phối cho đàn đại phong cầm, các bản nhạc bỗng chất chứa một sự huyền nhiệm nội tâm. Widor hết sức ấn tượng với Schweitzer và đã đồng ý dạy Schweitzer mà không lấy tiền. Đó là khởi đầu của một tình bạn vĩ đại và có nhiều ảnh hưởng đến thế giới.[6]

Từ năm 1893 ông học thần học Tin Lành tại đại học Kaiser Wilhelm Universität ở Straßburg. Ông cũng được học piano và đối âm dưới sự hướng dẫn của giáo sư Gustav Jacobsthal và kết thân với Ernest Munch, một nghệ sĩ đại phong cầm tại nhà thờ St William và cũng là người ngưỡng mộ âm nhạc của J.S. Bach.[7] Schweitzer cũng thực hiện một năm nghĩa vụ quân sự bắt buộc trong năm 1894. Schweitzer đã đi xem rất nhiều vở ô-pê-ra tại Straßburg của nghệ sĩ Richard Wagner (dưới sự chỉ huy của Otto Lohse), trong năm 1896 ông gom đủ tiền để dự lễ hội âm nhạc Bayreuth và xem các vở diễn Der Ring des Nibelungen và Parsifal, ông đã cảm thấy hết sức yêu thích các vở diễn này. Năm 1898 ông trở lại Paris để viết một bài tiểu luận của chương trình tiến sĩ tại trường đại học Sorbonne, nhan đề luận văn là Triết Học Tôn Giáo Của Kant, ông đã chăm chỉ học tập với Widor. Ông thường xuyên gặp Aristide Cavaillé-Coll. Ông cũng học piano với Marie Jaëll.[8] Ông lấy bằng tiến sĩ thần học năm 1899 và công bố luận văn tiến sĩ tại Đại học Tübingen cũng trong năm này.[9]